Marginal Advantage Accumulation for Memory-Driven Agent Self-Evolution
边际优势累积：跨批次证据驱动的 Agent 记忆自进化
🧭 Agent 记忆自进化 · 跨批次证据累积 ★ 深度解读
Alibaba International Digital Commerce Group
通过差分信号与 EMA 累积跨批次操作级证据，解决离线记忆蒸馏中的信号矛盾问题
📌 工作参考价值（4 点）
- 记忆更新的离线优化范式：当 agent 需要从历史执行痕迹中抽取可复用记忆（如电商导购策略、广告投放流程模板），可采用 MAA 的‘提案-评分-差分-EMA 累积’流水线，完全避免线上 rollout 的高成本，适合高延迟、高成本的真实业务环境。
- 差分评估消除批次混杂：直接把操作评分作为优化信号容易受批次难度影响，借鉴 MAA 的‘同一批次内 baseline 与候选同步打分再求差’的设计，可得到跨批次可比的操作优势方向信号。在推荐 agent 的策略搜索中，可以用 LLM 对候选策略与当前策略在同一批请求上同时打分再差分，得到更干净的优化方向。
- 基于语义合并的跨批次操作追踪：对 agent 输出的文本操作（如改写规则、新策略片段），可通过 embedding 相似度合并语义等价的候选项，避免因表述差异导致的证据碎片化。该技巧可直接用于线上记忆管理系统的操作去重与合并。
- EMA 证据累积与三种操作模式识别：通过 EMA 跟踪每个操作的边际优势，可以自动区分‘稳定有效’、‘虚假相关’和‘场景特定’三类操作，实现安全的离线记忆演化。在搜索广告的查询改写记忆或 prompt 库优化中，可避免单次正样本就把噪声策略写入长期记忆。